RecHarness: A Bandit-Routed Agentic Harness for Self-Evolving Recommender Systems
RecHarness:基于Bandit路由与LLM代理的推荐模型自进化框架
🧭 Bandit路由+LLM生成·推荐模型自动迭代 ★ 深度解读
Georgia Institute of Technology · Kuaishou Technology
用Thompson采样选择编辑方向,LLM负责具体代码修改,在有限预算下稳定优化推荐模型
📌 工作参考价值(4 点)
- 分离方向决策与代码生成:把“试什么方向”交给Bandit(基于历史成功/失败后验),把“怎么改代码”交给LLM,避免LLM在巨大搜索空间内盲目发散。推荐系统工程师可借鉴此架构,用简单统计路由控制尝试领域(架构、损失、特征),用LLM执行具体编辑。
- Jump-Basin机制跳出局部最优:当近期提升速率低于阈值时,自动开放结构跳跃臂(如更换序列编码器)。线上A/B显示,这一机制在短期局部精调无收益后自动激活,产出了可部署的结构改进。在广告排序或CTR模型迭代中,可设置类似机制自动触发大改。
- 实验技能(Experiment Skill)作为文本记忆:动态总结成功编辑、失败原因和趋势,形成紧凑的文本上下文注入LLM提示,避免模型重复犯错。可直接迁移到工业Agent中,用于维护试验记录、提炼可复用策略。
- 有限试验预算下的高效分配:Thompson采样在每一轮集中分配试验给高潜力臂,使47.92%的非基线试验刷新了best-so-far分数(随机分配仅22.45%)。在电商搜索/推荐中,当单次全量训练和评估成本高时,此路由可显著提高试验效率。